Johannes Jensen sinh ở Farso, Jutland, Đan Mạch, là con một bác sĩ thú y. Từ thuở nhỏ ông ham đọc, yêu thiên nhiên và cuộc sống của người nông dân Đan Mạch, được mẹ và gia sư dạy học là chính, sau đó mới vào học ba năm ở trường Cathedral (Viborg, 1893). Ông tiếp tục theo học ngành y tại Đại học Copenhagen. Tuy nhiên, khi ra trường ông lại sống bằng nghề làm báo, viết văn và chú tâm đi sâu nghiên cứu văn học. Ông chịu ảnh hưởng rất lớn của Knut Hamsun và Rudyard Kipling. Từ thời sinh viên, Jensen đã kiếm tiền bằng cách viết truyện trinh thám dưới bút danh Ivar Lucke và bắt đầu sáng tác cuốn tiểu thuyết Danskere (Các người Đan Mạch). Với số nhuận bút nhận được, Jensen đi du lịch ngắn ngày sang Mỹ và bị chấn động trước mức sống cùng sự phát triển công nghệ ở đất nước này. Trở về, ông tiếp tục sáng tác tiểu thuyết, truyện ngắn, thơ. Tác phẩm nổi tiếng đầu tiên là bộ ba Nye Himmerland historier (Những câu chuyện mới ở Himmerland, 1904), ghi lại các truyền thuyết dân gian ở vùng quê hương ông. Vốn được đào tạo trong các môn khoa học chính xác, ông chứng tỏ mình là một bậc thầy của thứ ngôn ngữ chuẩn mực, súc tích, giàu hình tượng.

Bộ tiểu thuyết nổi tiếng nhất giúp ông nhận được giải Nobel năm 1944 là Den lange rejse (Đường dài, 6 tập), viết từ năm 1908 đến 1922, kể lại quá trình tiến hóa của con người từ nguyên thủy đến hiện đại. Tuy nhiên, do chiến tranh, đến năm 1945 lễ trao giải mới được tổ chức.

Người dân Đan Mạch vẫn so sánh ông với Knut Hamsun, Sigrid Undset và Thomas Mann bởi "sự nghiệp phong phú và sức mạnh hiếm có của tưởng tượng thơ ca kết hợp với sự khám phá đầy trí tuệ và tính độc đáo của văn phong" trong các tác phẩm của ông, những tác phẩm cho đến nay vẫn có giá trị to lớn đối với văn học Bắc Âu. Ông mất năm 1950 ở Kopenhagen.